NuclearQAv2: A Structured Benchmark for Evaluating Domain-Science Competence in Large Language Models
NuclearQAv2：面向核工程领域的大语言模型结构化评估基准
🧭 领域科学评估基准
Los Alamos National Laboratory
提出混合流水线构建核工程QA基准，揭示大模型在定量推理与概念理解上的短板
📌 工作参考价值（4 点）
- 领域评估集构建方法可复用：采用专家出题+已有数据集+LLM辅助生成的混合流水线，成本可控且可扩展，可直接迁移到电商商品知识、广告政策合规等垂直领域评估集的构建。
- 多类题型设计揭示模型盲区：将题目分为布尔、数值、口头三类，分别考察事实记忆、定量计算和概念理解，借鉴此设计可定位Agent在推荐解释、金额计算等场景下的薄弱环节。
- 结构化提示用于自动出题与判分：通过精心设计的提示模板实现题目生成与答案校验，减少人工干预，适合需要快速迭代评估的推荐/搜索线上评测场景。
- 评估结果强调定量推理是短板：在各领域LLM应用中（如动态定价、效果预估）应重点监控数值型任务表现，辅助针对性微调或引入外部计算工具。